Pada 27 Januari, 1945, kerajaan Third Reich sudah hampir menemui kehancuran dan pasukan SS telah meninggalkan kem Auschwitz. Unitnya bergegas ke Barat untuk mengelak daripada ditangkap tentera Soviet. Akhirnya mereka bersama dengan Dr Mengele menjadi tahanan perang Amerika Syarikat. Mengele, pada mulanya mendaftar bawah namanya, tetapi apabila dibebaskan pada June 1945 beliau didaftarkan sebagai "Fritz Hollmann". Antara Julai 1945 sehingga Mei 1949, beliau bekerja di ladang di sebuah pekan kecil di Rosenheim, Bavaria, sementara merancang untuk melarikan diri ke Argentina untuk mengelak daripada ditahan sebagai penjenayah perang.

Dr Mengele telah membuat dokumen permastautin Itali ynag palsu untuk memasuki Argentina dan telah menerima pasportnya pada 1949. Sewaktu di sana beliau menceraikan isterinya Irene Mengele dan pada tahun 1958 berkahwin pula dengan balu adiknya Karl iaitu Martha. Berapa tahun kemudian isterinya dan juga anak Martha telah hidup bersama beliau di Argentina. Sewaktu di Argentina beliau telah berjumpa rakan Nazi yang lain seperti Hans-Ulrich Rudel dan Adolf Eichmann.

Pada mulanya, Dr Mengele hidup dengan selesa di Buenos Aires. Beliau telah praktis perubatannya di sana dan bidang yang diceburinya adalah pengguguran anak secara haram. Beliau juga telah mendapat bantuan kewangan beberapa rakyat Jerman yang berpengaruh di sana.Namun beliau dihantui kezalimannya yang lampau dan berita penangkapan Adolf Eichmann oleh pihak Mossad telah membimbangkan beliau.

Oleh itu, pada 1962 beliau meninggalkan Argentina dan berpindah ke Paraguay di atas nama samaran "José Mengele". Beliau berharap Paraguay boleh dijadikan tempat yang selamat baginya, dan beliau boleh mendapat perlindungan daripada diktator Alfredo Stroessner yang berketurunan Jerman dan pernah mengambil bekas anggota Nazi untuk membangunkan negara tersebut. Di Paraguay, beliau tinggal di pinggir pekan Hohenau, sebuah koloni Jerman. Walaupun begitu, beliau sedar pihak Mossad sedang menjejakinya dan berita tentang penculikan dan hukuman gantung yang dikenakan terhadap rakannya Adolf Eichmann di Israel telah menambahkan kekhuatirannya. Akhirnya, beliau berpindah pula ke Brazil pada 1960 dan tinggal bersama neo-Nazi anak kelahiran Austria iaitu Wolfgang Gerhard di ibukota São Paulo.

Sewaktu di Brazil, beliau hidup serba ketakutan dan jarang meninggalkan rumahnya. Walaupun begitu, pada satu hari atas desakan keluarganya beliau telah pergi berenang di laut dan sewaktu berenang beliau diserang strok lalu mati lemas.